วัดชัยมงคลสร้างขึ้นเมื่อประมาณ พ.ศ. 1893 สมัยกรุงสุโขทัยตอนปลายต่อกับสมัยกรุงศรีอยุธยาตอนต้น จากหลักฐานที่กรมศิลปากรสำรวจและขึ้นทะเบียนโบราณวัตถุของวัด ได้รับพระราชทานวิสุงคามสีมาถือว่าได้รับพระราชทานมาแต่เดิมประมาณ พ.ศ. 1893[1] จัดเป็นวัดแห่งแรกในชุมชนคลองปากน้ำ เดิมชาวเมืองเรียก วัดมอญ โบสถ์ของวัดไม่ได้หันหน้าไปทางทิศตะวันออกอย่างวัดไทยทั่วไป แต่จะหันโบสถ์ไปทางทิศเหนืออันเป็นที่ตั้งของเมืองหงสาวดี ต่อมาได้กลายเป็นวัดร้างเป็นเวลานานจึงขาดการบันทึกประวัติความเป็นมาที่ต่อเนื่อง

ในสมัยสงครามโลกครั้งที่สอง วัดเป็นสถานที่ตั้งของฐานบัญชาการญี่ปุ่น หลังจากที่กองทหารญี่ปุ่นขึ้นที่บางปู มีการสร้างศาลานาวิกโยธินไว้เป็นที่ระลึก ต่อมาได้ถูกย้ายไปสร้างเป็นศาลาพักร้อนมุงสังกะสี วัดยังเคยเป็นลานประหารชีวิตในช่วงที่ยังเป็นวัดร้าง ต่อมาวัดได้รับการพัฒนาในสมัยที่พระมงคลสุนทร (ผล) เป็นเจ้าอาวาส ท่านมีความเชี่ยวชาญทางสมถวิปัสสนา มีวัตถุมงคลที่มีเมตตามหานิยมสูง คือ พระกริ่งชัยมงคลและเหรียญพระชัยมงคล จนในปี พ.ศ. 2477 ได้เปลี่ยนชื่อจากวัดมอญมาเป็น "วัดชัยมงคล"[2]